τ-Rec-Books：控制需求披露的智能推荐系统需求诱导基准
🧭 Agentic RecSys 评测 · 需求诱导 ★ 深度解读
Independent Researcher · Princeton University
提出控制需求披露时机的书籍推荐评测基准，揭示隐藏需求下智能体成功率从 0.975 跌至 0.283
📌 工作参考价值（4 点）
- 在电商对话推荐 Agent 中，应内置“先问全字段再推荐”的 check：mixed 失败几乎都因不主动询问，显式要求 ask 能让所有模型 mixed 成功率从最低 0.419 拉到 ≥0.931。可在 prompt 或状态机里把关键硬约束字段逐一询问后再进入检索。
- 对隐藏偏好/未说需求，不要只把 reject 当失败信号；维护一个“可能隐藏约束”集合，被拒绝商品满足的候选约束都删掉，优先推荐覆盖剩余约束最多的候选。该 eliminating 策略在 hidden 任务上是 0.956 vs 0.622，远超 popularity。
- 给 Agent 的工具接口优先做结构化过滤（类目、品牌、价格区间、格式等），而不是只给 top-k 关键词搜索；硬约束场景下 structured search 平均 +7.1 分，且目录变大时几乎不掉点。
- 用规则化用户 + 目录元数据校验可低成本复现 disclosure-controlled 评测，无需 LLM judge；在 prompt 或版本迭代时，可先跑这种可验证 benchmark 再上人类评估，特别关注 hidden NVR 的弃权与 untested recommendation 比例。
BrowseFlow：用于生成式用户模拟的稀疏事件流匹配
🧭 生成式用户模拟 · 离散 Flow Matching ★ 深度解读
Tsinghua University · Taobao & Tmall Group of Alibaba
用离散 Flow Matching 对稀疏关键事件和浏览深度建模，生成随机用户浏览轨迹，在三个数据集上取得最优分布拟合
📌 工作参考价值（4 点）
- 拆解用户浏览轨迹为“浏览深度/进度 + 稀疏关键事件序列”的稀疏表示，避免逐 action 预测滚动等高频进度动作；直接生成点击/转化/收藏的计数、深度和目标，适合电商推荐模拟和 offline RL 环境中的用户行为生成。
- 采用离散 Flow Matching 的插入式 CTMC 生成可变长关键事件序列，天然处理事件计数和位置，不需要单独 count 预测头；训练用随机事件保留构造部分序列 + 条件速率匹配（hazard 1/(1-s)），实现简单，可迁移到点击/加购等稀疏正反馈序列建模。
- 评估随机用户模拟时不要只看命中或似然：用 energy score 同时度量样本对观察的保真度和样本间多样性，再加关键事件计数分布 Wasserstein 距离，能更真实反映条件响应分布拟合；线上模拟器/A/B 评测可引入类似分布指标。
- 对长会话，分离 browsing extent 能明显改善深浏览位置的恢复；在广告/信息流中若关心首点击深度或长浏览用户，可显式建模浏览深度分布而不是依赖逐步终止。
AutoSim：面向对话搜索评估的自改进用户模拟器
🧭 用户模拟器自改进 · 评估真实性 ★ 深度解读
University of Passau · Interdisciplinary Transformation University Austria
Prompt 级自改进无法消除对话搜索模拟器与真实用户行为差距，权重级对抗微调把判别 AUC 降到 0.45 并修正评估偏差。
📌 工作参考价值（4 点）
- 如果要在搜索/推荐/Agent 离线评估里用 LLM 用户模拟器，别指望 prompt 或少样本把「模拟用户」变真实；准备少量真实用户对话或行为日志，用 LoRA/权重级对抗 SFT 训练生成器。论文的四轮 rejection sampling 流程可直接复用：冻结判别器，采样候选 utterance，保留最像人的样本再 SFT，然后刷新判别器。
- 上线前给模拟器加两道检查：一是真实 vs 模拟判别器 AUC 或人工判别，不只看平均 query 长度、礼貌比例；二是在真实用户无结果/低召回的高难度 query 上比较模拟 query 的 nDCG 或召回，防止模拟器掩盖检索失败。
- 把「评估判断」和「用户生成」解耦：排序有效性来自强 LLM judge，不必让 judge 自改进；judge 与 generator 用不同模型家族，避免 self-preference/verbosity bias。业务上可复用为：LLM relevance judge 保持与人工标注或 A/B 结果对齐，生成器单独做真实性校准。
- 对生成式推荐/QueryRec 或多轮 Agent 用户建模：不要只学最终答案或短 query 表层长度，要匹配真实 query 与完整需求之间的语义对齐；短 query 不一定需求聚焦，需额外测 query-need alignment。
PersonaCUABench：多样化用户人设下的计算机使用智能体评测基准
🧭 Agent 评测 · 用户多样性
The University of Texas at Dallas · University of Southern California · Carnegie Mellon University · Georgia Institute of Technology · University of California, Los Angeles
固定任务、仅变化用户人设，发现 CUA 任务完成率平均下降 36%
📌 工作参考价值（4 点）
- 对话式推荐/购物 Agent 评测可借鉴「固定任务、仅变化用户 persona」的设计，分离任务难度与用户表达差异，避免只测固定指令。
- 用户 simulation 中让 persona agent 用自己的话改写请求、回答追问，能暴露模型对含混需求、额外约束、批准流程的理解能力。
- 评估指标需同时看任务完成与用户满意度/约束遵循：论文中任务完成但用户最高满意度仅 62.7%，提醒业务中不能只优化结果正确。
- 错误分析维度「理解错需求导致失败」vs「用户要求停止但被判定失败」可帮助定位是语义理解问题还是策略/安全机制问题。
τ-Emotion-Bench：用真实用户情绪暴露 LLM Agent 交互脆弱性
🧭 情绪化用户交互下工具调用 Agent 评估与训练 ★ 深度解读
Arizona State University
提出情绪化用户交互基准与 Tracer 数据管线，用交互感知信号训练工具调用 Agent 提升可靠性与跨域迁移
📌 工作参考价值（4 点）
- 在电商导购/售后 Agent 的轨迹合成中，可引入“用户不满可提前终止”的交互感知 reward，过滤最终成功但频繁追问、过度依赖用户的轨迹；让模型优先通过工具查库存/价格/订单，信息不可得时才向用户确认。
- 用户模拟器压测时，不要把情绪作为独立任务或改变任务目标，而应在同一任务上叠加情绪条件（如焦虑、不耐烦、低信任）并保留原成功判定，能更稳定地暴露 Agent 的交互鲁棒性。
- 用“工具调用/追问比”作为线上会话 Agent 的诊断指标：成功会话通常工具调用明显多于追问；可以在 prompt 或 reward 中约束“先查工具，再必要时追问”。
- 借鉴 Tracer 的依赖图 + 反写自然指令流程，可以为业务领域低成本生成 policy-valid 多步任务和训练轨迹；少量高质量交互感知数据比大批普通成功轨迹更利于跨域迁移。
SimInter：基于访谈画像增强的循证对话推荐用户模拟
🧭 用户模拟 · 对话推荐评估 ★ 深度解读
University of Tehran · Institute for Research in Fundamental Sciences (IPM)
用LLM访谈+轮级审计从历史对话中提取隐式用户画像，显著提升模拟用户的aspect表达丰富度
📌 工作参考价值（4 点）
- 在电商/对话推荐离线评估中，可用「历史行为统计 + LLM 访谈」抽取用户隐式偏好（pickiness、decision-making style、novelty preference），每个属性要求 evidence quote，避免 LLM 直接从静态画像推断时的刻板印象。
- Turn-level 审计是工程可落地的做法：定义 fabrication / caricature / history contradiction 三类 flag，并设 severity，不整段丢弃对话而是剔除有问题的 turn。对 RAG 对话、生成式推荐的事实性校验可参考这种细粒度过滤。
- 注意 trade-off：丰富画像提高了 aspect 多样性和语义多样性，但会降低 item 多样性和词汇重复。业务评估中不要追求所有多样性指标同时提升，应明确评估维度。
- 用不同 LLM 做生成/审计/评测（如 Gemini 生成访谈、Claude 审计、GPT-4o-mini 做 CRS）可减少同模型共享偏差。
先仿真后上线：1.4亿用户规模的生产客户体验AI智能体筛选
🧭 用户仿真 · Agent 部署前筛查 ★ 深度解读
Nubank · Guardrails AI
用假设驱动的工具边界用户仿真对生产CX智能体做部署前筛选，加速迭代并带来显著业务提升
📌 工作参考价值（4 点）
- 把用户仿真作为上线前的标准筛查层：在电商客服、购物助手、推荐对话机器人等场景，可以用 persona-driven 的模拟用户和 mock 工具层开展多轮交互，提前暴露不必要转人工、工具调用失败、回复不当等问题，避免直接让真实用户承担风险。
- 工具边界 mocking 是工程落地的关键：模拟环境不调用生产后端，而是由 persona 代理根据工具 schema 和一致性规则返回合成结果，能保证同一对话内状态一致；这比 mock 整个数据库更轻量，易于在 Agent 与外部 API 交互密集的业务中复用。
- 假设驱动 + 预设筛选标准，而非追求模拟与生产完全一致：每次只验证一个候选改动（如 prompt 修改、工具策略调整、模型替换），用同一套 evaluator 对比 incumbent 和 candidate 的失败率，达标才进入 live A/B；模拟的价值在于指导方向，不要求精确复现生产指标。
- 用模拟快速扫描模型与推理配置：对 open-weight 模型、reasoning effort、量化精度进行大规模仿真实验（如 16k+ 对话），能低成本发现各模型对不同评估维度的敏感差异，再挑选候选进入线上验证，大幅缩短选型周期。
世界模型引导的反事实用户参与模拟强化学习
🧭 世界模型反事实用户模拟 · 推荐策略 RL ★ 深度解读
The Chinese University of Hong Kong · Zhejiang University · ByteDance China · MoE Key Lab of High Confidence Software Technologies, CUHK
用冻结 LLM 用户参与世界模型并行预测多候选 item 的异质反馈，转化为奖励训练 1.7B 推荐策略，跨域匹配或超过更大 LLM。
📌 工作参考价值（4 点）
- 把用户反馈模拟器当作离线 RL 奖励源：对同一 history 采样 G 个候选 item，让 UEWM 并行预测反馈，构造 same-state 反事实比较；这比从 logs 学 policy 或 SFT distillation 更符合策略梯度对「同状态多动作」的需求。
- 多信号反馈向量化 + 权重映射奖励：将点赞、分享、差评、评分、评论文本统一向量化，再用权重向量映射为标量 reward；在电商场景可以把点击、加购、收藏、评论情感按业务目标加权，而不是只看点击率。
- 小模型策略优化可落地：用 8B 模拟器奖励训练 1.7B 学生模型，在 Amazon Books/Movies 和 Google Local 上超过 SFT蒸馏和 DeepSeek-GRM 奖励，说明可低成本获得接近大模型的推荐策略，适合粗排/召回级小模型精调。
- 跨域迁移的边界要清楚：UEWM 从中文短视频迁移到英文电商/本地生活做评分/评论预测有效，说明学到的是「从历史推断用户动态」的通用过程；但它是纯文本、只建模用户侧动态，缺少视觉/价格/库存/平台侧约束，接入业务时需补齐多模态与曝光分配机制。
PersonaForge：真实多轮用户模拟与 Agent 训练评估
🧭 Agent 用户模拟 · 多轮交互训练 ★ 深度解读
Peking University · Xiaomi LLM-Core · The University of Hong Kong · Renmin University of China
构建 SOUL 驱动的真实多轮用户模拟器，从真实查询反向生成 6.3K 训练数据与 138 任务基准，显著提升 Agent 交互效率与任务完成率
📌 工作参考价值（4 点）
- 构建电商导购/客服 Agent 的多轮训练数据时，优先从真实搜索/会话日志的种子 query 出发，用 LLM 反向推断用户画像与 connected memory，而不是随机生成 persona；这样能保留隐藏意图，让模型学会逐步澄清需求。
- 用户模拟器的提示词可采用 SOUL 结构：身份段落 + 抽象行为参数（消息长度、正式度、emoji）+ connected memory 固化 session 事实；避免用具体 utterance 示例，防止多样性崩溃。这一设计可迁移到任何对话式推荐/客服的仿真用户。
- 在数据合成 pipeline 中预设三阶段质量控制：生成前检查 persona 一致性，运行时用消息长度阈值（如 1500 字符，真实用户 99.2% 以下）检测角色反转，后处理过滤退化模式；可有效降低合成数据污染。
- 评测多轮推荐/搜索 Agent 时，设计渐进信息披露和嵌入矛盾的任务，并按交互效率、工具适当性、任务完成、回复质量四维打分；论文表明这类数据训练后轮次减少约 20%、无效工具调用大幅下降，同时任务完成率提升，对线上体验直接有益。
RecVerse：忠实模拟人类购物行为的 GUI Agent
🧭 用户行为仿真 · GUI Agent · RL ★ 深度解读
Gaoling School of Artificial Intelligence, Renmin University of China · University of Chinese Academy of Sciences · National University of Singapore · Alibaba Group
提出融合三级认知记忆与轨迹级 RL 的 GUI 用户仿真 Agent，显著提升行为保真与意图一致性
📌 工作参考价值（4 点）
- 在 LLM 驱动的用户模拟 / 智能导购中，不要直接拼接长历史，可采用三级记忆：Working Memory 保留最近 K 步视觉与心态、Episodic Memory 记录会话事件、Preference Memory 蒸馏高层购物意图；把记忆写入作为动作交给 RL 学习，能自动决定“何时记、记什么”，缓解长会话上下文爆炸。
- 训练用户模拟器别只做 next-action 模仿或 step-level reward，改用 trajectory-level RL：宏观奖励对齐动作类型分布（CTR/ACR/CVR/IPVR 等），微观奖励用三级类目层次做意图匹配，可避免过度探索或过度被动。
- 如果业务有真实页面截图，尽量让仿真/评估 Agent 走 GUI grounding，而不是纯文本元数据；论文显示 GUI 比 text 的类别意图一致性 HCO 从 19.03 提升到 30.00，RL 后进一步到 32.64。
- 评估用户模拟器时同时报告行为保真和意图一致性，防止 hit 率被过度交互撑高；可借鉴其指标：ATL 偏差、行为统计与真实分布的比值、类目重叠 HCO。
ICAE-Bench：交互式项目构建编程代理评估基准
🧭 交互式编程Agent评估与用户模拟
Fudan University · Meituan Group · Singapore Management University · Shanghai Innovation Institute
提出首个从模糊需求出发交互式构建项目的编程代理评估基准，包含480个任务与自动用户模拟
📌 工作参考价值（4 点）
- 用户模拟器设计思路可迁移至对话式推荐：使用预定义的“用户数据”来约束模拟过程，避免人为虚构需求或泄露答案，确保交互可重现。搜索/推荐Agent评测中可借鉴此法，用历史行为序列生成模糊意图并模拟用户追问。
- 多维黑盒评估范式适用于Agent推荐：除功能正确性外，还细粒度评估语义相似度、结构保真度、交互质量等，可指导构建推荐/搜索Agent的全面评估体系，防止仅看单一指标导致误判。
- 将模糊需求锚定到具体真实代码库：在电商导购Agent场景，可用真实商品库或业务接口作为“可执行基准”，评估Agent能否将模糊意图（如“帮我找个性价比高的蓝牙耳机”）逐步澄清并落地为具体推荐/搜索动作。
- 通过隐藏约束与边界情况暴露Agent短板：评测表明当前模型擅长表层复现，但对隐藏业务规则、异常分支处理不足。在推荐系统中，可专门设计需要常识推理、用户长尾偏好、促销规则链的测试集，以检验Agent的深层理解与交互决策能力。
VISTA：面向交互式智能体评估的混合用户仿真工具包
🧭 交互式智能体评估 · 混合用户仿真 ★ 深度解读
Columbia University · Arklex.ai
结合 UI 与 API 混合仿真并引入覆盖率、真实感等六项指标，更全面地暴露智能体故障
📌 工作参考价值（4 点）
- 混合仿真架构：在电商客服或对话式推荐 Agent 评估中，可借鉴 UI 交互与 Mock API 相结合的方式，用 API 可靠提供用户订单、账户等结构化信息，避免纯 UI 导航的噪声与误操作，同时更全面地触发 Agent 故障。
- 覆盖率指标用作自动质量信号：工具转移熵、工具分布熵、轨迹距离等指标无需人工标注就能衡量仿真多样性；实践中可用其持续监控仿真器是否能充分探索 Agent 能力边界，作为评估有效性的代理指标。
- 故障自动识别框架：LLM-as-Judge 从 helpfulness/coherence/relevance 等五维度评分后合并故障理由，可自动化地归类 false information、repetition 等典型错误，辅助 Agent 迭代优化。
- 真实感一致性的自动评测：用户画像、目标与领域知识一致性评测采用参考无的 LLM 判断，与人类评分正相关（ρ=0.60），可作为仿真质量快速反馈信号，无需昂贵人工评估即可调优仿真策略。
面向推荐模拟的任务感知自动化用户画像生成
🧭 RecSys ★ 深度解读
RMIT University
提出无需手动Schema的三阶段框架，自动生成任务对齐、鲁棒的用户画像，显著提升模拟行为对齐与泛化性